Skip to content
掌握度

JavaGuide 与小林都讲了(二哥在「什么是 Agent」里顺带断言过 RAG 不算 Agent,无专题),对比 JavaGuide《RAG 基础概念》 与小林《什么是 RAG》《RAG 主要解决什么问题》《RAG vs 微调》。

两版对比 ​

解决什么问题​:JavaGuide 列的是知识时效性、私有知识、可溯源;小林给了最有解释力的归因——幻觉不是独立的 bug,是知识缺失的副产品​,是模型没有依据时的应急策略,三者根源同体。比喻也好记:微调是「为记一条新闻重新上大学」,RAG 是「开卷考试」。

怎么选,两边公式一致​:JavaGuide 按「知识变化频率 + 是否要溯源」分场景;小林收成一句——微调解决怎么说,RAG 解决说什么​,输出格式、行业语气才需要微调,知识类需求一律 RAG,工程里最常见的是两者组合。六维对比(更新、延迟、成本、溯源、场景、知识上限)JavaGuide 表格更全。

反直觉判断(小林独有)​​:RAG 的生成层只是复述检索内容,​上限被检索层死死卡住——答非所问先别换更贵的模型,主战场在检索层。微调三痛点(贵、知识每周变追不上、不可溯源)对 RAG 三痛点(几百毫秒到一秒延迟、检索质量卡上限、复杂推理提升有限),都不是免费的。

最优题解 ​

RAG 就是先检索后生成:把用户问题在知识库里召回相关片段,连同问题一起喂给模型,让它基于可核对的证据回答。它解决三个同根的问题——知识时效(训练截止后的事它不知道)、私有知识(没进训练集)、幻觉(没有依据时模型会用「最像答案的话」应急,RAG 给了它依据)。

和微调怎么选:微调改参数,管「怎么说」——输出格式、语气、领域风格;RAG 不改参数、推理时注入知识,管「说什么」——知识随时热更新、可溯源。知识库问答首选 RAG,需要稳定输出格式或行业语气就再叠微调,工程上最常见的是组合。还有一句要主动说:RAG 答非所问先查检索层——生成上限被检索质量卡死,换更强的模型是南辕北辙。

追问链 ​

追问:长上下文窗口会取代 RAG 吗?​ 参考答:不会。窗口解决装得下,RAG 解决找得准——全量塞进去成本线性涨、利用率还随长度掉(Context Rot),RAG 是把窗口预算花在刀刃上;两者是互补。展开见 上下文窗口与工程。

追问:什么场景必须微调、RAG 救不了?​ 参考答:让模型稳定输出特定格式或行业语气、教它一套新任务范式——这些是「行为」不是「知识」,放不进知识库,只能调参数。

我的理解 ​

这题的记忆锚是小林那句「微调管怎么说、RAG 管说什么」加「幻觉是知识缺失的副产品」的归因——后者把「为什么 RAG 能缓解幻觉」从经验升级成了因果。JavaGuide 的六维对比表留作追问时的展开框架;「先查检索层再换模型」是我自己的 RAG 项目里验证过的排查顺序,可以自然带到。

本站仅供个人学习使用,请勿外传